Việc dùng bạo lực để loại trừ những người Việt Minh một cách vô tội vạ, đã khiến lực lượng Việt Minh còn lại ở miền nam bị suy yếu trầm trọng, nhưng đồng thời gây bất mãn và căm phẫn cho thành phần nhân dân thân Việt Minh. Việt Minh, sau khi rút phần lớn lực lượng quân sự đi tập kết, con số nằm vùng ở lại vào khoảng 10 vạn; nhưng khi thực thi đạo luật 10-59 tổng số người bị hành hình (xử bắn), tra tấn, cầm tù lại lên đến hàng chục vạn, nghĩa là có quá nhiều dân thường bị oan sai, trong khi thực tế các cơ sở Việt Minh vẫn chưa bị triệt hoàn toàn.

Năm 1959, Việt Nam Dân chủ Cộng hòa và Đảng Lao động Việt Nam đã ra Nghị quyết 15 công khai cổ vũ đấu tranh vũ trang tại miền Nam. Năm 1960, Đại hội đảng thứ 3 tại Hà Nội đã bầu ông Lê Duẩn làm Bí thư thứ nhất (tương đương Tổng bí thư). Ông là người chủ trương đấu tranh bằng vũ trang với mọi hy sinh để "Giải phóng miền Nam, thống nhất đất nước, đưa cả nước đi lên chủ nghĩa xã hội". Ngay lập tức chiến trường miền Nam có sự đột biến. Phía Cộng sản phát động ngay một đợt tiến công quy mô kết hợp đấu tranh chính trị với đấu tranh vũ trang mà trong đó chính trị vẫn đóng vai trò chủ đạo.

Họ phát động nông dân ở nông thôn nổi dậy giành chính quyền, phá ấp chiến lược, lùng bắt và thủ tiêu các nhân viên chính quyền tại địa bàn. Các hoạt động nổi dậy này được phối hợp nhịp nhàng cùng lúc với việc thành lập lực lượng vũ trang. Họ đánh hoặc bao vây các vị trí quân sự để không cho quân chính phủ kéo về can thiệp và, đồng thời, họ phát động dân chúng biểu tình; nếu thấy đối phương yếu thế thì biểu tình phát triển thành nổi dậy cướp chính quyền, nếu chưa thể thì kéo dài đưa ra các yêu sách quấy rối làm tê liệt chính quyền. Nếu chính phủ điều quân tới thì những người biểu tình bao vây lấy quân đội bắt đầu binh vận ngay tại chỗ. Phương cách này được phía Cộng sản đúc kết thành phương châm "Ba mũi giáp công" (quân sự, chính trị, binh vận). Phong trào được có tên là Đồng khởi và bắt đầu được thí điểm tại tỉnh Bến Tre. Sau khi thấy chính phủ Ngô Đình Diệm lúng túng trong việc lập lại trật tự các vùng khác cũng theo nhau đồng khởi. Đến cuối năm 1960 một phần đáng kể của nông thôn miền Nam đã thành vùng do Cộng sản kiểm soát.

Để cho cuộc chiến có chính danh, ngày 20 tháng 12 năm 1960 phía Cộng sản thành lập Mặt trận Dân tộc Giải phóng Miền Nam Việt Nam gồm nhiều đại diện các thành phần tôn giáo, tầng lớp xã hội, dân tộc khác nhau ở miền Nam Việt Nam do Đảng Lao động Việt Nam lãnh đạo. Ngày 15 tháng 2 năm 1961, họ thành lập Quân Giải phóng Miền Nam. Kể từ lúc này tại miền Nam đã chính thức tồn tại hai chính quyền, hai quân đội đối địch. Phía Cộng sản đã đủ mạnh để đánh được chỗ nào là họ thành lập "chính quyền cách mạng". Ước chừng ban đầu có khoảng 30 ngàn thanh thiếu niên đã gia nhập lực lượng Quân Giải phóng.